Това A.I. Прогнозата прогнозира бури напред

годината е 2027 година Мощните системи за изкуствен интелект стават все по-умни от хората и провокират пакост по световния ред. Китайските шпиони са откраднали A.I. Тайните и Белият дом бърза да отмъсти. Вътре в водещ A.I. Лабораторията, инженерите са уплашени, с цел да открият, че техните модели стартират да ги заблуждават, повдигайки опцията те да излязат. Те са сюжети, планувани от нестопанска цел в Беркли, Калифорния, наречени A.I. Futures Project, който прекара последната година в опит да планува по какъв начин ще наподобява светът през идващите няколко години, като все по -мощен A.I. systems are developed.

The project is led by Daniel Kokotajlo, a former OpenAI researcher who left the company last year over his concerns that it was acting recklessly.

While at OpenAI, where he was on the governance team, Mr. Kokotajlo wrote Подробни вътрешни отчети за това по какъв начин надпреварата за неестествен обща просветеност или A.G.I. -Размит термин за машинно просветеност на човешко ниво-може да се разгърне. След като си потегли, той си партнира с Ели Лифланд, A.I. Изследовател, който имаше опит за тъкмо прогнозиране на международните събития. Те трябваше да работят, пробвайки се да предскажат идната вълна на A.I.

издадена тази седмица, която разказва в обстоен фиктивен сюжет какво може да се случи, в случай че A.I. Системите надминават интелигентността на човешкото ниво-която създателите чакат да се случи през идващите две до три години.

" Ние предвиждаме, че A.I.S ще продължи да се усъвършенства досега, в който те са изцяло самостоятелни сътрудници, които са по-добри от хората в всичко до края на 2027 година, " господин Кокотайло class = " css-at9mc1 evys1bk0 " > Няма дефицит на спекулации за A.I. в наши дни. Сан Франциско е обзет от A.I. Пламът и софтуерната сцена на Bay Area се трансфораха в сбирка от враждуващи племена и секти на разцепените, всяка от тях убеди, че знае по какъв начин ще се развие бъдещето.

някои A.I. Прогнозите са приели формата на манифест, като „ Машини на любяща берекет “, есе с 14 000 думи, написано предходната година от Дарио Амодей, основен изпълнителен шеф на антропичния, или „ ситуационната информираност “, отчет на някогашния откривател на Openai Леополд Ашенбънер, който се прочете в политиката. в A.I. Futures Project проектира техния като сюжет на прогнозата - всъщност, част от строго проучена научна фантастика, която употребява най -добрите си догатки за бъдещето като сюжетни точки. Групата прекара близо една година, като пренасочва стотици прогнози за A.I. Тогава те доведоха публицист - Скот Александър, който написа блога Astral Codex Ten - с цел да помогне да трансформира прогнозата си в роман.

70 % възможност A.I. биха унищожили или пагубно да навредят на човечеството.) И г -н Кокотайло и господин Лифланд имат връзки с ефикасния алтруизъм, друго философско придвижване, известно измежду софтуерните служащи, което прави ужасни предизвестия за A.I. Години.

само че също по този начин си коства да се означи, че някои от най-големите компании на Силиконовата котловина възнамеряват свят оттатък A.G.I., и че доста от лудите прогнози за гледане, направени за A.I. В предишното - като мнението, че машините ще преминат теста на Тюринг, умствен опит, който дефинира дали една машина може да наподобява, че поддържа връзка като човек - се осъществен.

написа обява в блога, озаглавена „ Как наподобява 2026 година “, обрисувайки мнението си за това по какъв начин A.I. системите биха прогресирали. Редица негови прогнози се оказаха планувани и той се убеди, че този тип прогнозиране е скъпо и че той е добър в това. Седмица, господин Kokotajlo и господин Lifland ме поканиха в офиса им-малка стая в място за съдействие в Беркли, наречено Constellation, където редица A.I. Организациите за сигурност окачват херпес зостер-за да ми покажат по какъв начин работят.

mr. Kokotajlo, облечен в загар във боен жанр, сграбчи маркер и написа четири съкращения на огромна бяла дъска: sc> sar> siar> asi. Всеки, изясни той, представляваше крайъгълен камък в A.I. развиване.

поръчайте бурито на doordash, без да се забиете.

само че те са уверени, че тези слепи петна ще се свият бързо, както A.I. Системите стават задоволително положителни при кодирането, с цел да ускорят A.I. Изследвания и разработки.

Техният отчет се концентрира върху OpenBrain, фиктивен A.I. Компания, която построява мощен A.I. Система, известна като агент-1. (Те взеха решение да не отделят избрана компания A.I., вместо това да основат състав от водещите американски лаборатории на A.I.)

защото агент-1 става по-добър при кодирането, тя стартира да автоматизира огромна част от инженерната работа в OpenBrain, която разрешава на компанията да се движи по-Faster и оказва помощ да се построи агент-2, още по-способна A.I. откривател. До края на 2027 година, когато сюжетът завърши, агент-4 прави година на A.I. Изследвайте пробиви всяка седмица и заплашва да преминете. Мислеше ли да вземем за пример, че животът през 2030 година към момента ще бъде различим? Дали улиците на Беркли ще бъдат изпълнени с хуманоидни роботи? Хората, изпращащи текстови известия на A.I. приятелки? Ще има ли някой от нас да има работа?

мощен A.I. Системите идват скоро, не съм уверен, че Superhuman A.I. Кодерите автоматизирано ще вземат другите умения, нужни за зареждане на пътя си към общата просветеност. И внимавам за прогнозите, които допускат, че A.I. Напредъкът ще бъде равен и експоненциален, без огромни усложнения или трудности по пътя.

само че мисля Ако е мощен A.I. Наистина е зад ъгъла, всички ще би трябвало да стартираме да си представяме някои доста странни бъдещи.